Mixture of Debaters: Learn to Debate at Architectural Level in Multi-Agent Reasoning
辩论专家混合:在多智体推理中学习架构级辩论
🧭 多智体推理 · MoE 内部自辯 · 动态路由 ★ 深度解读
South China University of Technology · Tianjin University · The Hong Kong Polytechnic University
通过混合专家架构实现单模型内部动态辩论,解耦角色与流程路由,推理性能超越多智体外辩论,延迟降 3.7 倍,Token 省 87%
📌 工作参考价值(4 点)
- 内部自辯替代多模型辩论架构:在电商客服、搜索问答等多轮推理场景,可直接用单模型内化辩论,省去多模型通信开销,延迟和 Token 成本大幅下降,适合对延迟敏感的在线服务。
- 双路由器解耦角色与流程:可迁移到推荐系统的理由生成或排序过程,让模型同时扮演“提案者”和“评审者”,动态决定何时辩论、何时合成,提升复杂决策的一致性。
- 动量切换稳定推理:滑动窗口平滑专家选择,避免 Token 级路由波动造成的前后矛盾,适合需要连贯多轮交互的产品(如对话式推荐、多步搜索澄清)。
- 视角转移数据合成:利用模型自身生成正确/错误回复构造辩论训练数据,可借鉴到推荐解释或搜索摘要的自我修正训练,低成本提升模型纠错能力。